Kompanije koje koriste fotografije ili audio zapise za verifikaciju identiteta klijenata pripremaju se za rizik od obmana kreiranih pomoću generativne veštačke inteligencije. Deepfake, odnosno veštački generisane slike ili video zapisi koji izgledaju zapanjujuće stvarno, već neko vreme su tema u društvenim medijima, tokom izbora i u javnom sektoru.
Ipak, s napretkom tehnologije koja koristi veštačku inteligenciju da bi imitirala glasove i slike realističnije nego ikada, prevare sa "dipfejkovima" sada su usmjerene i na kompanije. "Uvek je bivalo prevarantskih poziva. Ali sposobnost ovih [AI] modela da oponašaju stvarne obrasce govora nekog lica tako da telefonskim putem mogu davati naređenja nekome da učini nešto – taj tip rizika je potpuno nov”, rekao je Bil Kasedi, glavni informacijski direktor u „New York Life“.
Banke i pružaoci finansijskih usluga su među prvim metama prevaranata. Kyle Kappel, šef američkog odeljenja za sajber bezbednost u KPMG, naglašava da se ovo polje veoma brzo razvija. Jedan primer brzog razvoja je nedavna prezentacija tehnologije od strane OpenAI koja može da replicira ljudski glas iz klipa od 15 sekundi. OpenAI je naveo da tehnologiju neće učiniti javno dostupnom dok se više ne sazna o potencijalnim rizicima zloupotrebe.
Zabrinutost je da bi prevaranti mogli koristiti audio datoteke generisane veštačkom inteligencijom kako bi obmanuli softver za glasovnu autentifikaciju koji finansijske usluge koriste za verifikaciju klijenata, i tako dobili pristup njihovim računima. Chase banku je nedavno obmanuo glas generisan veštačkom inteligencijom. Međutim, banka je izjavila da moraju biti obezbeđene dodatne informacije za transakcije i druge finansijske zahteve od strane klijenata.
Broj incidenata sa deepfake tehnologijom u FinTech sektoru porastao za 700% u 2023. godini u odnosu na prethodnu, navodi se u nedavnom izveštaju platforme za verifikaciju identiteta Sumsub. Kompanije rade na uvođenju dodatnih mera bezbednosti kako bi se pripremile za talas napada koji pokreće generativna veštačka inteligencija.
Kasidi, na primer, radi sa grupom za venture kapital kompanije New York Life kako bi identifikovala startape i nove tehnologije usmerene na borbu protiv Dipfejkova. Aleks Kariles, glavni digitalni direktor Simons banke, menja neke protokole za verifikaciju identiteta. Ranije je to uključivalo da klijenti postavljaju fotografije svojih vozačkih dozvola. Međutim, sada kada se slike vozačkih dozvola mogu lako generisati pomoću veštačke inteligencije, banka sarađuje sa provajderom bezbednosti IDScan.net kako bi poboljšala proces. Umesto da postave postojeću sliku, klijenti sada moraju da fotografišu svoje vozačke dozvole kroz aplikaciju banke i naprave selfije.
Ne sve banke vide neposrednu opasnost. Ejmi Brejdi, direktorka informacionih tehnologija u banci KeyBank, kaže da je njena banka zaostajala u tehničkom aspektu pri usvajanju softvera za verifikaciju glasom. S obzirom na rizike koje nose duboke laži, ona to sada smatra srećnim slučajem. Brejdi navodi da odlaže uvođenje softvera za verifikaciju glasom dok ne bude boljih alata za otkrivanje imitacija. „Ponekad se isplati biti zaostao“, rekla je ona.
